Tuy số lượng cố vấn tăng lên liên tục, nhưng Quân lực Việt Nam Cộng hòa vẫn rất vất vả trong việc ngăn chặn sự phát triển của những đội quân của những người Cộng sản miền Nam, mà không lâu sau đó đã tập hợp thành một đội quân chính quy, Quân Giải phóng Miền Nam Việt Nam, vào ngày 15 tháng 2 năm 1961. Vì vậy, Chính phủ Mỹ và Việt Nam Cộng hòa phải thành lập một cơ quan chỉ huy quân sự mới, với mục đích không chỉ làm công tác cố vấn huấn luyện cho quân đội Việt Nam Cộng hòa, mà còn đi xa hơn nữa là đưa quân đội Mỹ vào tham chiến tại Nam Việt Nam.

MACV được thành lập vào ngày 8 tháng 2 năm 1962, về danh nghĩa là cơ quan chỉ huy quân sự toàn bộ các lực lượng quân sự Mỹ tại Việt Nam, nhưng trên thực tế, có quyền hạn chỉ huy về mặt quân sự của toàn bộ các lực lượng quân sự của Hoa Kỳ, Việt Nam Cộng hòa và các đồng minh tại Nam Việt Nam. Chính điều này đã làm tổng thống Ngô Đình Diệm rất khó chịu và đã tìm nhiều biện pháp để giảm sự ảnh hưởng của MACV đến quyền lực của ông, cũng như ngăn cản việc đưa quân đội Mỹ và đồng minh vào tham chiến tại Việt Nam. Đây cũng là một lý do dẫn đến cuộc đảo chính và cái chết của ông một năm rưỡi sau đó.

Ban đầu, MACV là một cơ quan độc lập với MAAG và cũng chỉ giới hạn trong việc đưa các cố vấn quân sự tham gia chỉ huy các đơn vị của Việt Nam Cộng hòa. Đến ngày 15 tháng 5 năm 1964, MAAG sáp nhập với MACV để trở thành một cơ quan chỉ huy thống nhất và về viện trợ, cố vấn và chỉ huy quân sự cao nhất của Hoa Kỳ và đồng minh tại Nam Việt Nam.

Từ năm 1964 cho tới 1973, MACV trên thực tế là cơ quan có quyền lực nhất tại miền Nam Việt Nam, có nhiệm vụ chỉ huy mọi hoạt động quân sự của Mỹ và các đồng minh (Hàn Quốc, Úc, Thái Lan, Quân lực Việt Nam Cộng hòa). Ngay cả các tổng thống Việt Nam Cộng hòa nhiều khi cũng không được can dự vào các quyết định của MACV, và nếu muốn, MACV có thể ra lệnh lật đổ bất kỳ tổng thống Việt Nam Cộng hòa nào mà họ muốn phế truất, tương tự như các Toàn quyền Đông Dương của Pháp trong thời Pháp thuộc.

Sau 11 năm tồn tại, theo điều khoản của Hiệp định Paris, các lực lượng Mỹ và đồng minh phải triệt thoái trong vòng 60 ngày kể từ ngày ngừng bắn. Do đó, MACV cũng được giải tán vào ngày 29 tháng 3 năm 1973. Tuy giải tán trên danh nghĩa, nhưng trong thực tế, các cố vấn quân sự Mỹ vẫn hiện diện ở miền Nam Việt Nam để điều phối các hoạt động quân sự cho tới ngày 30/4/1975 dưới danh nghĩa Văn phòng Tùy viên Quân sự Mỹ (DAO).